When Is a Draft Accepted? A Theory of Acceptance in Speculative Decoding
投机解码中草稿接受准则的理论分析
🧭 LLM 推理加速 · 投机解码理论
Independent Researcher
为贪婪与放松接受下的投机解码提供基于 KL 散度的接受证书，覆盖树形解码
📌 工作参考价值（4 点）
- 若在推荐系统中部署 LLM 进行实时生成（如对话式推荐、解释生成），可借鉴放松接受准则（加性/乘性/top-m 放松）提升 draft 接受率，降低延迟。
- 树形解码允许多候选并行验证，在目标分布较平坦时仍能保持较高接受概率，适合对延迟敏感的场景，可直接工程化。
- 论文给出的基于 KL 散度和 margin 的接受条件，可用于离线评估 draft 模型质量，指导模型选择与阈值设定，平衡质量与速度。
- 对于需要确定性输出（不要求分布完全匹配）的推送文案生成、搜索词改写等任务，可直接应用贪婪+放松的投机解码，无需额外校准。